To build Video Question Answering (VideoQA) systems capable of assisting humans in daily activities, seeking answers from long-form videos with diverse and complex events is a must. Existing multi-modal VQA models achieve promising performance on images or short video clips, especially with the recent success of large-scale multi-modal pre-training. However, when extending these methods to long-form videos, new challenges arise. On the one hand, using a dense video sampling strategy is computationally prohibitive. On the other hand, methods relying on sparse sampling struggle in scenarios where multi-event and multi-granularity visual reasoning are required. In this work, we introduce a new model named Multi-modal Iterative Spatial-temporal Transformer (MIST) to better adapt pre-trained models for long-form VideoQA. Specifically, MIST decomposes traditional dense spatial-temporal self-attention into cascaded segment and region selection modules that adaptively select frames and image regions that are closely relevant to the question itself. Visual concepts at different granularities are then processed efficiently through an attention module. In addition, MIST iteratively conducts selection and attention over multiple layers to support reasoning over multiple events. The experimental results on four VideoQA datasets, including AGQA, NExT-QA, STAR, and Env-QA, show that MIST achieves state-of-the-art performance and is superior at computation efficiency and interpretability.

视频时间基础（VTG）的目标是根据自然语言（NL）描述在未修剪视频中定位时间矩。由于现实世界的应用程序提供了永无止境的视频流，因此它提出了对长形视频的时间基础的需求，这导致了两个主要挑战：（1）长视频长度使得很难处理整个视频而不减少样本速率并导致高计算负担； （2）随着候选时间的增加数量，准确的多模式对准更具挑战性。为了应对这些挑战，我们提出了一个有效的以窗户为中心的粗略对齐框架，它可以灵活地处理具有较高推理速度的长格式视频输入，并通过我们的新颖的Choce-Fine Muly-Fine增强了时间基础模态对齐框架。具体来说，我们通过滑动窗口方法将长视频将长视频切成候选窗口。 Cone（1）以窗户为中心，通过对比度学习和通过对NL查询相关的候选窗口进行过滤来学习窗口间的（粗粒）语义差异，并且（2）执行内部（罚款） - 使用强大的对比视力文本预训练模型的强大多模式对齐能力对候选力矩进行排名。长期视频的两个大规模VTG基准测试的广泛实验始终显示出可观的性能增长（MAD的3.13％至6.87％，从10.46％到EGO4D-NLQ上的10.46％至13.46％），并且Cone在两个数据集上都可以达到SOTA结果。分析揭示了组件的有效性和长期视频接地的效率较高，因为我们的系统在EGO4D-NLQ上提高了2倍的推理速度，而在MAD上提高了15倍的速度，同时保持了锥体的SOTA性能。

尽管近年来人的重新识别取得了令人印象深刻的改善，但在实际应用程序场景中，由不同的障碍引起的常见闭塞案例仍然是一个不稳定的问题。现有方法主要通过采用额外网络提供的身体线索来区分可见部分，以解决此问题。然而，助理模型和REID数据集之间的不可避免的域间隙极大地增加了获得有效和有效模型的困难。为了摆脱额外的预训练网络并在端到端可训练网络中实现自动对齐，我们根据两个不言而喻的先验知识提出了一种新型的动态原型掩码（DPM）。具体而言，我们首先设计了一个层次蒙版生成器，该层面生成器利用层次的语义选择高质量的整体原型和闭塞输入图像的特征表示之间的可见图案空间。在这种情况下，可以自发地在选定的子空间中很好地对齐。然后，为了丰富高质量整体原型的特征表示并提供更完整的特征空间，我们引入了一个头部丰富模块，以鼓励不同的头部在整个图像中汇总不同的模式表示。对被遮挡和整体人员重新识别基准进行的广泛的实验评估证明了DPM优于最先进的方法。该代码在https://github.com/stone96123/dpm上发布。

融合技术是多模式情绪分析中的关键研究主题。最近的关注的融合表明了基于简单的操作融合的进步。然而，这些融合作品采用单规模，即令牌级或话语水平，单峰代表。这种单尺度融合是次优，因为不同的模态应该以不同的粒度对齐。本文提出了名为Scalevlad的融合模型，从文本，视频和音频中收集多尺度表示，与本地聚合描述符的共享向量，以改善未对准的多模式情绪分析。这些共享向量可以被视为共享主题以对齐不同的模态。此外，我们提出了一种自我监督的移位聚类损失，以保持样本之间的融合特征差异化。底部是对应于三个模态的三个变压器编码器，并且从融合模块产生的聚合特征将馈送到变压器加上完成任务预测的完全连接。在三个流行的情感分析基准，IEMocap，MOSI和MOSEI的实验，证明了基准的显着收益。

图表卷积网络在基于图形的半监督学习方面取得了很大进展。现有方法主要假设通过图形边缘连接的节点容易具有相似的属性和标签，因此由本地图形结构平滑的特征可以揭示类相似性。然而，在许多真实情景中的图形结构和标签之间经常存在不匹配，其中结构可以传播最终影响模型性能的误导性功能或标签。在本文中，我们提出了一种多任务的自蒸馏框架，将自我监督的学习和自蒸煮注入图形卷积网络中，以分别地解决结构侧和标签侧的不匹配问题。首先，我们基于预先文本任务制定自我监督管道，以捕获图表中的不同程度的相似性。鼓励特征提取过程通过联合优化预文本任务和目标任务来捕获更复杂的接近。因此，从结构侧提高了本地特征聚合。其次，自蒸馏使用模型本身的软标签作为额外的监督，这与标签平滑有类似的效果。从分类管道和自我监督管道的知识共同蒸馏，以改善来自标签侧的模型的泛化能力。实验结果表明，该方法在几种经典图卷积架构下获得了显着性能增益。

本文介绍了一个名为N \“UWA的统一的多模式预训练模型，可以为各种可视化合成任务生成新的或操作现有的视觉数据（即，图像和视频）。涵盖语言，图像和视频同时设计了一个不同的场景，设计了一个3D变压器编码器 - 解码器框架，它不仅可以处理作为3D数据的视频，而且分别适应文本和图像作为1D和2D数据。还提出了附近的3D（3DNA）机制考虑视觉数据的性质并降低计算复杂性。我们在8个下游任务上评估n \“UWA。与几个强的基线相比，n \“uwa达到了最先进的结果，对图像生成，文本到视频生成，视频预测等。此外，它还显示出令人惊讶的良好零射起能力关于文本引导的图像和视频操作任务。项目repo是https://github.com/microsoft/nuwa。

基于深度学习的模型占主导地位的生产推荐系统的当前景观。此外，近年来目睹了模型规模的指数增长 - 从谷歌的2016年模型，最新的Facebook的型号有10亿个参数，具有12万亿参数。型号容量的每次跳跃都有显着的质量增强，这使我们相信100万亿参数的时代即将来临。然而，即使在工业规模数据中心内，这些模型的培训也在挑战。这种困难是从训练计算的惊人的异质性继承 - 模型的嵌入层可以包括总模型尺寸的99.99％，这是极其内存密集的;虽然其余的神经网络越来越多地计算密集型。为支持培训此类巨大模式，迫切需要有效的分布式培训系统。在本文中，我们通过仔细共同设计优化算法和分布式系统架构来解决这一挑战。具体而言，为了确保培训效率和训练精度，我们设计一种新型混合训练算法，其中嵌入层和密集的神经网络由不同的同步机制处理;然后，我们构建一个名为Persia的系统（短暂的并行推荐培训系统，其中包含混合加速），以支持这种混合培训算法。理论上的示范和实证研究均达到100万亿参数，以证明了波斯的系统设计和实施。我们将Pensia公开使用（在https://github.com/persiamml/persia），以便任何人都能够以100万亿参数的规模轻松培训推荐模型。

伪装的对象检测（COD）旨在检测周围环境的类似模式（例如，纹理，强度，颜色等）的对象，最近吸引了日益增长的研究兴趣。由于伪装对象通常存在非常模糊的边界，如何确定对象位置以及它们的弱边界是具有挑战性的，也是此任务的关键。受到生物视觉感知过程的启发，当人类观察者发现伪装对象时，本文提出了一种名为Errnet的新型边缘的可逆重新校准网络。我们的模型的特点是两种创新设计，即选择性边缘聚集（SEA）和可逆的重新校准单元（RRU），其旨在模拟视觉感知行为，并在潜在的伪装区域和背景之间实现有效的边缘和交叉比较。更重要的是，RRU与现有COD模型相比，具有更全面的信息。实验结果表明，errnet优于三个COD数据集和五个医学图像分割数据集的现有尖端基线。特别是，与现有的Top-1模型SINET相比，ERRNET显着提高了$ \ SIM 6％（平均电子测量）的性能，以显着高速（79.3 FPS），显示ERRNET可能是一般和强大的解决方案COD任务。

骨架序列轻巧且紧凑，因此是在边缘设备上进行动作识别的理想候选者。最新的基于骨架的动作识别方法从3D关节坐标作为时空提示提取特征，在图神经网络中使用这些表示形式来提高识别性能。一阶和二阶特征（即关节和骨骼表示）的使用导致了很高的精度。但是，许多模型仍然被具有相似运动轨迹的动作所困惑。为了解决这些问题，我们建议以角度编码为现代体系结构的形式融合高阶特征，以稳健地捕获关节和身体部位之间的关系。这种与流行的时空图神经网络的简单融合可在包括NTU60和NTU120在内的两个大型基准中实现新的最新精度，同时使用较少的参数和减少的运行时间。我们的源代码可公开可用：https：//github.com/zhenyueqin/angular-skeleton-soding。

Face Anti-spoofing (FAS) is essential to secure face recognition systems from various physical attacks. However, recent research generally focuses on short-distance applications (i.e., phone unlocking) while lacking consideration of long-distance scenes (i.e., surveillance security checks). In order to promote relevant research and fill this gap in the community, we collect a large-scale Surveillance High-Fidelity Mask (SuHiFiMask) dataset captured under 40 surveillance scenes, which has 101 subjects from different age groups with 232 3D attacks (high-fidelity masks), 200 2D attacks (posters, portraits, and screens), and 2 adversarial attacks. In this scene, low image resolution and noise interference are new challenges faced in surveillance FAS. Together with the SuHiFiMask dataset, we propose a Contrastive Quality-Invariance Learning (CQIL) network to alleviate the performance degradation caused by image quality from three aspects: (1) An Image Quality Variable module (IQV) is introduced to recover image information associated with discrimination by combining the super-resolution network. (2) Using generated sample pairs to simulate quality variance distributions to help contrastive learning strategies obtain robust feature representation under quality variation. (3) A Separate Quality Network (SQN) is designed to learn discriminative features independent of image quality. Finally, a large number of experiments verify the quality of the SuHiFiMask dataset and the superiority of the proposed CQIL.